NVIDIA H100 PCIe 80 GB

NVIDIA H100 PCIe 80 GB — 80 Гб HBM2e, 14 592 ядер, GPI 44,1

Загружаемся...

Оценка производительности

GPU от NVIDIA на процессоре GH100. NVIDIA H100 PCIe 80 GB содержит 80 Гб видеопамяти HBM2e. Шина 5120 бит, пропускная способность 2.04 TB/s. NVIDIA H100 PCIe 80 GB имеет 14592 CUDA ядра. 5 nm техпроцесс в TSMC.

A100 A100
H200 H200
MI325X MI325X

NVIDIA H100 PCIe 80 GB

44,1

NVIDIA H100 PCIe 80 GB

44,1

Память

Объем памяти

80 GB

Тип памяти

Пропускная способность памяти

2.04 TB/s

Ширина шины памяти

5 120 бит
8 192 бит
(AMD Radeon Instinct MI325X)

ML-производительность

FP16 (half)

204,9 TFLOPS

BF16

Нет TFLOPS
311,84 TFLOPS
(NVIDIA A800 SXM4 80 GB)

TF32

Нет

Вычислительная мощность

FP32 (float)

51,22 TFLOPS

FP64 (double)

25,61 TFLOPS
1 166 000,0 TFLOPS
(XFX XFX QICKSILVER MagAir RX 7800 XT)

CUDA ядра

RT ядра

Архитектура и совместимость

Архитектура GPU

SM (Streaming Multiprocessor)

PCIe версия

PCIe 5.0 x16

Программная поддержка ML

CUDA версия

Частоты и производительность

Base Clock

1 095

Boost Clock

Memory Clock

1 593

Энергопотребление

Рекомендуемый БП

Разъём питания

1x 16-pin

TDP/TGP

350 W
unknown
(NVIDIA CMP 70HX)

Рендеринг

Текстурные блоки (TMU)

L2 Cache

50 MB

Бенчмарки

MLPerf, llama2-70b-99.9 (fp8)

1 222 tokens/s
2 444 tokens/s
(NVIDIA H200 SXM 141 GB)

MLPerf, mixtral-8x7b (fp8)

3 466 tokens/s
7 132 tokens/s
(NVIDIA H200 SXM 141 GB)

Дополнительно

Слоты

Dual-slot
SXM Module
(NVIDIA B300)

Дата выпуска

13 октября 2022 г.
12 марта 2026 г.
(Intel Arc B770)

Дисплейные порты

No outputs
Portable Device Dependent
(NVIDIA GeForce RTX 5090 Mobile)

Часто задаваемые вопросы

Для каких задач подходит NVIDIA H100 PCIe 80 GB?

NVIDIA H100 PCIe 80 GB предназначена для высокопроизводительных вычислений, машинного обучения, искусственного интеллекта и научных исследований. Она отлично подходит для задач с большим объемом данных и высокой требовательностью к вычислительной мощности, таких как тренировка глубоких нейронных сетей, симуляции и рендеринг высокого качества.

С какими конкурентами сравнить и чем отличается эта видеокарта?

NVIDIA H100 PCIe 80 GB можно сравнить с аналогичными продуктами от AMD и NVIDIA. Например, NVIDIA A100 PCIe 80GB или AMD Instinct MI250X. H100 отличается более современной архитектурой Hopper, что позволяет ему обеспечивать лучшую производительность в некоторых сценариях, особенно при работе с новыми алгоритмами машинного обучения и искусственного интеллекта.

Достаточно ли питания/охлаждения для этой карты?

Для NVIDIA H100 PCIe 80 GB требуется значительное питание и охлаждение. Рекомендуется использовать блок питания с выходным током не менее 750 Вт, так как TDP составляет 350 Вт. Охлаждение также должно быть эффективным, чтобы поддерживать стабильную работу видеокарты при высоких нагрузках. Использование жидкостного охлаждения может быть предпочтительнее для максимальной производительности.

Стоит ли брать эту карту в 2025-2026 году?

В 2025-2026 годах NVIDIA H100 PCIe 80 GB будет актуальной для специалистов в области машинного обучения, искусственного интеллекта и науки. Однако стоит учитывать, что новые поколения видеокарт могут быть представлены с более передовыми характеристиками и ценами. Поэтому рекомендуется внимательно изучить рынок и оценить, соответствует ли данная видеокарта вашим текущим и будущим потребностям.

Рекомендации

Эта видеокарта идеально подходит для обработки больших объемов данных, машинного обучения и искусственного интеллекта благодаря огромной памяти и высокой пропускной способности. Также она хорошо справляется с вычислительными задачами в науке и исследованиях.

Арендовать дешевле, чем покупать